Everything in Moderation: Per-Domain Coverage Optima and Alignment-Resistant Domain Gaps in Multi-Domain Mid-Training
多域中期训练中每域覆盖最优与对齐抗性域差距
🧭 训练数据配比与领域覆盖优化
证明各域覆盖率存在内部最优区间，且中期训练的域差距难以被后续SFT修复
📌 工作参考价值（4 点）
- 多域/多任务数据配比存在非单调最优：业务中的多域推荐或LLM微调，不应简单按数据量加权或追求某域越多越好，10%–40%的覆盖率区间普遍较优，可用小规模单形扫描实验（simplex sweep）确定各域峰值位置。
- 中期训练的数据构成难以靠后续SFT弥补：如果业务系统分阶段训练基础模型和任务模型，早期数据配比造成的领域差距不会在对齐阶段自动消失，必须把数据混合策略前移到中期训练阶段。
- 零覆盖的代价与通用漂移混淆：完全放弃某域会导致该域能力崩溃，但需要设置通用数据控制组（如FineWeb-Edu-only）区分是域缺失还是通用分布漂移，避免误判。
- 探索性θ*配比思路可复用到推荐模型训练：在多个候选数据配比中做端到端全流程评估，选择全流程增益最大的配比，即使单域统计不显著，也可能带来整体提升。